Thơ ca và truyện ngắn của Kawabata được ấn hành ngay từ lúc ông còn là học sinh trung học. Tình yêu thơ ca thấm đượm trong từng trang văn của ông, đặc biệt với loại truyện rất ngắn mà ông gọi là truyện ngắn trong lòng bàn tay, loại truyện mà ông luôn thích viết trong suốt cuộc đời mình, như ông giải thích: "Tuổi trẻ trong đời nhiều nhà văn thường dành cho thơ ca; còn tôi, thay vì thơ ca, tôi viết những tác phẩm nhỏ gọi là truyện ngắn trong lòng bàn tay... Hồn thơ những ngày trẻ tuổi của tôi sống sót trong những câu chuyện ấy..."

Vào Đại học Tokyo, Kawabata nghiên cứu cả văn học Anh lẫn văn học Nhật. Ông say mê thơ văn cổ điển dân tộc như Truyện kể Genji của Murasaki Shikibu, Sách gối đầu của Sein Shonagon lẫn các tác giả hiện đại Tây phương như Marcel Proust, James Joyce...

Khi còn là sinh viên ông đã cùng với Yokomitsu Riichi lập ra tờ Văn nghệ thời đại (Bungei jidai) làm cơ quan ngôn luận cho trường phái văn học tân cảm giác (shinkankaku-ha) nhằm thực hiện một "cuộc cách mạng văn học đối đầu với làn sóng văn học cách mạng đương thời". Chọn con đường riêng cho mình, Kawabata tự bạch: "Tôi đã tiếp nhận nồng nhiệt văn chương Tây phương hiện đại và tôi cũng đã thử bắt chước nó, nhưng chủ yếu tôi là một người Đông phương và suốt mười lăm năm qua tôi chưa từng đánh mất phong cách ấy của mình."

Một thời gian ngắn sau khi tốt nghiệp, ông bắt đầu được công nhận nhờ một số truyện ngắn, và được khen ngợi với truyện Vũ nữ xứ Izu (伊豆の踊り子) năm 1926, nói về những quyến rũ mới chớm của tình yêu tuổi trẻ. Các tác phẩm sau này của ông sẽ đi vào những chủ đề tình yêu tương tự. Các nhân vật của ông thường là các cô gái rất đẹp và trẻ, ông luôn hướng đến một vẻ đẹp vẹn toàn, ông cũng là người tôn sùng vẻ đẹp mỏng manh và luôn sử dụng ngôn ngữ đầy hình ảnh u ẩn về cuộc sống thiên nhiên và số phận con người.

Xứ tuyết (雪国), tiểu thuyết đầu tiên của Kawabata, được bắt đầu năm 1934, đăng nhiều kỳ từ 1935 đến 1937, và chỉ hoàn tất năm 1947. Chuyện tình giữa một tay chơi từ Tokyo và một nàng ca kỹ (geisha) tỉnh lẻ diễn ra tại một thị trấn xa xôi đâu đó phía tây rặng Alps Nhật Bản (dãy núi chia đôi đảo Honshu). Vẻ đẹp của tuyết, của các mùa, của người nữ hòa quyện trên từng trang sách, đẹp như thơ, đưa tác phẩm ngay lập tức trở thành cổ điển, và như lời Edward G. Seidensticker, "có lẽ là kiệt tác của Kawabata", đã đưa Kawabata vào số những nhà văn hàng đầu nước Nhật.

Sau Chiến tranh thế giới thứ hai, ông tiếp tục thành công với những tiểu thuyết như Ngàn cánh hạc (千羽鶴, một chuyện tình bất hạnh trong khung cảnh trà đạo), Tiếng rền của núi (山の音), Người đẹp say ngủ (眠れる美女) và Cái đẹp và nỗi buồn (美しさと哀しみと, tiểu thuyết cuối cùng của ông, lại một câu chuyện đam mê với kết cuộc buồn).

Bản thân Kawabata cho rằng tác phẩm hay nhất của mình là Danh thủ cờ vây (名人, 1951), truyện ngắn này tương phản rõ rệt với những tác phẩm khác. Truyện kể lại (có hư cấu thêm) một ván cờ vây năm 1938, mà ông đã tường thuật cho báo Mainichi. Đó là ván cờ cuối cùng của danh thủ Shūsai, ông này đã thua người thách đấu trẻ hơn mình, rồi qua đời một năm sau. Mặc dù truyện có vẻ hời hợt, chỉ là thuật lại một cuộc đấu tranh lên đến đỉnh điểm, một số độc giả cho rằng đó là ẩn dụ thất bại của Nhật Bản trong Chiến tranh thế giới thứ hai, số khác lại coi là cuộc đấu tranh giữa truyền thống và hiện đại.

Năm 1968, Kawabata được trao tặng giải Nobel với lời ca ngợi của Viện Hàn lâm Thụy Điển: "Ông là người tôn vinh cái đẹp hư ảo và hình ảnh u uẩn của hiện hữu trong đời sống thiên nhiên và trong định mệnh con người" (diễn văn của tiến sĩ Anders Usterling trong lễ trao giải).

Là chủ tịch Hội Văn Bút Nhật Bản trong nhiều năm sau chiến tranh, Kawabata đã thúc đẩy việc dịch văn học Nhật sang tiếng Anh và các thứ tiếng phương tây khác.